SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance
SAGE:通过拓扑引导缓解长程推理偏差
🧭 LLM 长程推理 · 拓扑结构引导
Virginia Tech · University of Wisconsin Madison · Dartmouth College
用代数稀疏化与双曲结构引导的SAGE框架,缓解长程推理的探索偏差与累积偏差,12基准7模型家族提升,AC问题8倍改善
📌 工作参考价值(4 点)
- 在Agent多步规划(如导购Bot多轮需求澄清、商品筛选)中,候选步骤常局部合理但全局不可行;可借鉴代数稀疏化,对每步算子做结构约束投影/过滤,只保留可采纳分支,压缩搜索宽度、减少跳转幻觉。
- 双曲结构引导可用到长流程状态表示:将多步决策的状态embedding从欧氏空间改为Poincaré/Lorentz双曲空间,能更自然编码层级与深度信息,为稀疏奖励过程提供稠密的深度连续信号。
- 稀疏奖励场景不要只依赖最终结果做RL;可显式建模“局部可采纳性”作为过程监督/辅助reward,比如在召回→粗排→精排的多级funnel中为每阶段定义可采纳条件,缓解累积偏差。
- 业务可借鉴点有限:SAGE偏符号/数学推理,开放域推荐对话中定义算子索引代数子空间成本较高,但结构先验与候选分层约束可直接用于受限Action空间的Agent决策。